Πόλεμος στην τεχνητή νοημοσύνη - Η σύγκρουση Trump - Anthropic θα καθορίσει το μέλλον της ανθρωπότητας

Η εντολή της αμερικανικής κυβέρνησης για περιορισμό των εξαγωγών των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης της Anthropic δεν αποτέλεσε ένα απλό μέτρο εθνικής ασφάλειας.
Σύμφωνα με τον αρθρογράφο, αποτέλεσε το εμφανές σημείο ρήξης μιας βαθύτερης σύγκρουσης μεταξύ της ανάγκης της Ουάσιγκτον να στρατιωτικοποιήσει την τεχνητή νοημοσύνη αιχμής και των εταιρειών που την αναπτύσσουν. Πρόκειται για μια σύγκρουση για την οποία καμία από τις δύο πλευρές δεν διαθέτει σαφή οδικό χάρτη επίλυσης και η οποία εκτιμάται ότι θα καθορίσει τη γεωπολιτική της τεχνητής νοημοσύνης την επόμενη δεκαετία.

Η ημέρα που η Ουάσιγκτον απενεργοποίησε τη δική της AI

Στις 12 Ιουνίου, το Υπουργείο Εμπορίου των ΗΠΑ εξέδωσε εντολή προς την Anthropic να περιορίσει άμεσα την πρόσβαση στα δύο πιο προηγμένα μοντέλα της, Mythos 5 και Fable 5, για κάθε αλλοδαπό υπήκοο, είτε βρισκόταν εντός είτε εκτός των Ηνωμένων Πολιτειών.
Η εντολή επικαλέστηκε λόγους εθνικής ασφάλειας, χωρίς να δώσει στην εταιρεία ουσιαστικό χρονικό περιθώριο εφαρμογής.
Η αντίδραση της Anthropic ήταν άμεση και, σύμφωνα με τον συντάκτη, αποκάλυψε περισσότερα για την κατάσταση της αμερικανικής διακυβέρνησης στην AI από οποιοδήποτε επίσημο έγγραφο πολιτικής. Η εταιρεία απενεργοποίησε πλήρως και τα δύο μοντέλα για όλους τους χρήστες, επειδή δεν διέθετε τεχνικό μηχανισμό που να μπορεί να επαληθεύει σε πραγματικό χρόνο την υπηκοότητα κάθε χρήστη.
Έτσι, μια κυβερνητική οδηγία εθνικής ασφάλειας κατέληξε να καταστήσει μη λειτουργικό το ίδιο το προϊόν που επιδίωκε να προστατεύσει.
Εκατοντάδες εκατομμύρια χρήστες έχασαν την πρόσβαση. Ξένοι ερευνητές σε αμερικανικά πανεπιστήμια, κάτοχοι βίζας H-1B που εργάζονταν σε αμερικανικές εταιρείες και διεθνείς συνεργάτες που είχαν βασίσει ολόκληρες διαδικασίες εργασίας στα συγκεκριμένα μοντέλα αποκλείστηκαν μέσα σε μία νύχτα, όχι επειδή παραβίασαν κάποιον κανόνα, αλλά επειδή η εντολή δεν μπορούσε τεχνικά να εφαρμοστεί χωρίς πλήρη διακοπή λειτουργίας.
Το Υπουργείο Εμπορίου διατήρησε το δικαίωμα να επανεξετάσει την απόφασή του εφόσον άλλαζαν οι συνθήκες, μια διατύπωση που ο αρθρογράφος θεωρεί τη μοναδική ειλικρινή παραδοχή ότι κανείς δεν διέθετε πραγματικό σχέδιο και ότι ο μηχανισμός εφαρμογής δημιουργούνταν σε πραγματικό χρόνο πάνω σε μια τεχνολογία που ποτέ δεν είχε σχεδιαστεί για τέτοιου είδους περιορισμούς.

Πώς έφτασαν η Anthropic και η Ουάσιγκτον στη σύγκρουση

Η Anthropic δεν είναι μια συνηθισμένη εταιρεία τεχνολογίας ούτε η σχέση της με την αμερικανική κυβέρνηση είναι συμβατική.
Η εταιρεία ιδρύθηκε το 2021 από τους Dario Amodei, Daniela Amodei και συνεργάτες τους, οι οποίοι αποχώρησαν από την OpenAI εξαιτίας των ανησυχιών τους για την ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης και την επάρκεια των μέτρων ασφαλείας.
Από την ίδρυσή της έχει εκφράσει πιο ξεκάθαρα από σχεδόν κάθε άλλο κορυφαίο εργαστήριο AI τις ανησυχίες της για τους κινδύνους της τεχνολογίας και έχει ενσωματώσει αυτούς τους προβληματισμούς σε συμβατικούς περιορισμούς σχετικά με τις επιτρεπόμενες χρήσεις των μοντέλων της.

Η σύγκρουση με το Πεντάγωνο

Οι συγκεκριμένοι περιορισμοί αποτέλεσαν, σύμφωνα με το άρθρο, την αιτία της σημερινής αντιπαράθεσης.
Το Πεντάγωνο χαρακτήρισε νωρίτερα μέσα στη χρονιά την Anthropic ως κίνδυνο για την εφοδιαστική αλυσίδα, αφού η εταιρεία αρνήθηκε να επιτρέψει τη χρήση των μοντέλων της για μαζική εγχώρια παρακολούθηση και πλήρως αυτόνομα οπλικά συστήματα.
Η Anthropic υποστήριξε ότι η στάση της βασιζόταν σε ηθικές αρχές και ότι οι συγκεκριμένες εφαρμογές ήταν τόσο επικίνδυνες ώστε κανένα οικονομικό αντάλλαγμα δεν θα δικαιολογούσε τη χρήση τους.
Από την άλλη πλευρά, το Πεντάγωνο υποστήριξε ότι χρειάζεται την AI για κάθε νόμιμο σκοπό και ότι μια ιδιωτική εταιρεία δεν μπορεί να καθορίζει ποιες χρήσεις είναι αποδεκτές.
Η Anthropic προσέφυγε δικαστικά κατά της κυβέρνησης και η εντολή περιορισμού των εξαγωγών ακολούθησε μήνες πολιτικής και νομικής κλιμάκωσης.

Ο ρόλος της Amazon

Το άρθρο του Modern Diplomacy, επισημαίνει ότι την τεχνική ευπάθεια που οδήγησε στην κυβερνητική παρέμβαση δεν αποκάλυψε κάποιος ανώνυμος ερευνητής, αλλά προσωπικά ο διευθύνων σύμβουλος της Amazon, Andy Jassy.
Ο συντάκτης θεωρεί ότι η πληροφορία αυτή έχει ιδιαίτερη σημασία, επειδή η Amazon είναι ταυτόχρονα ο μεγαλύτερος επενδυτής της Anthropic, ο βασικός πάροχος cloud υποδομών της και παράλληλα ανταγωνιστής της στην ανάπτυξη προηγμένων μοντέλων AI.
Παραμένει άγνωστο αν η παρέμβαση του Andy Jassy οφειλόταν αποκλειστικά σε ανησυχίες ασφάλειας ή αν υπήρχαν και ανταγωνιστικά κίνητρα.

Διαφωνία ακόμη και για την ίδια την απειλή

Η Anthropic αμφισβήτησε όχι μόνο τη σοβαρότητα αλλά και τη φύση της υποτιθέμενης ευπάθειας.
Ορισμένοι ερευνητές υποστήριξαν ότι επρόκειτο περισσότερο για ένα συνηθισμένο prompt προγραμματισμού παρά για πραγματικό jailbreak, ενώ περίπου εκατό ειδικοί κυβερνοασφάλειας υπέγραψαν ανοικτή επιστολή υποστηρίζοντας ότι η απαγόρευση εξαγωγών προκάλεσε μεγαλύτερη ζημιά στους αμυνόμενους από όση θα μπορούσε ποτέ να προκαλέσει η συγκεκριμένη ευπάθεια.
Η κυβέρνηση διαφώνησε και μέσα σε λίγες ημέρες τα δύο μοντέλα αποκλείστηκαν παγκοσμίως.

Η πραγματική σύγκρουση

Η δημόσια συζήτηση παρουσίασε την υπόθεση ως διαφωνία γύρω από ένα jailbreak και μία εντολή περιορισμού εξαγωγών.
Στην πραγματικότητα, όμως, αποκαλύφθηκε μια βαθύτερη θεσμική σύγκρουση που εξελίσσεται από τότε που η τεχνητή νοημοσύνη αιχμής μετατράπηκε σε στρατηγικό πλεονέκτημα εθνικής ασφάλειας.
Η κυβέρνηση των ΗΠΑ χρειάζεται τα ισχυρότερα μοντέλα AI για στρατιωτικές και πληροφοριακές εφαρμογές, κυβερνοεπιχειρήσεις και τον ανταγωνισμό με την Κίνα.
Από την άλλη πλευρά, αρκετές εταιρείες έχουν θέσει συμβατικούς περιορισμούς ακριβώς σε αυτές τις χρήσεις, επειδή οι ιδρυτές τους θεωρούν ότι δημιουργούν καταστροφικούς κινδύνους.
Τόσο η κυβέρνηση όσο και η Anthropic έχουν βάσιμα επιχειρήματα.
Οι Ηνωμένες Πολιτείες δεν μπορούν να επιτρέψουν στην Κίνα να αποκτήσει στρατιωτικό προβάδισμα στην τεχνητή νοημοσύνη, ενώ η Anthropic έχει επίσης δίκιο όταν θεωρεί ότι τα πλήρως αυτόνομα οπλικά συστήματα και η μαζική επιτήρηση αποτελούν εφαρμογές με εξαιρετικά σοβαρές συνέπειες.
Η ίδια η εταιρεία έχει αναγνωρίσει ότι πιθανότατα είναι αδύνατο να εξαλειφθούν πλήρως όλα τα jailbreaks και έχει προειδοποιήσει για το ενδεχόμενο εμφάνισης ενός καθολικού jailbreak που θα μπορούσε να παρακάμπτει ταυτόχρονα πολλές δικλίδες ασφαλείας.

Ο υπόλοιπος κόσμος παρακολουθεί

Όταν οι Ηνωμένες Πολιτείες απενεργοποίησαν τα μοντέλα της Anthropic για όλους τους αλλοδαπούς, έστειλαν ένα σαφές μήνυμα σε κυβερνήσεις, επιχειρήσεις και ερευνητικά ιδρύματα σε όλο τον κόσμο ότι οι αμερικανικές υποδομές AI μπορούν να απενεργοποιηθούν για πολιτικούς λόγους χωρίς προειδοποίηση.
Ως αποτέλεσμα, πολλές χώρες επιταχύνουν πλέον τις επενδύσεις σε μη αμερικανικές εναλλακτικές λύσεις τεχνητής νοημοσύνης, εξέλιξη που, σύμφωνα με το άρθρο, ενδέχεται να παράγει το ακριβώς αντίθετο αποτέλεσμα από αυτό που επιδίωκαν οι αμερικανικοί περιορισμοί.

Τα τρία πιθανά σενάρια

Ο αρθρογράφος θεωρεί πιθανότερο σενάριο τη σταδιακή θεσμοθέτηση της σύγκρουσης, με τις εταιρείες να χαλαρώνουν προοδευτικά τους περιορισμούς ασφαλείας τους ώστε να διατηρήσουν τις κρατικές συμβάσεις.
Ένα δυσμενές σενάριο προβλέπει ότι ένα σοβαρό περιστατικό που θα σχετίζεται με την AI θα προκαλέσει κρίση πριν δημιουργηθεί σαφές νομοθετικό πλαίσιο.
Το αισιόδοξο σενάριο προβλέπει ότι το αμερικανικό Κογκρέσο θα θεσπίσει δεσμευτικό νομικό πλαίσιο που θα ορίζει τι μπορεί και τι δεν μπορεί να απαιτεί η κυβέρνηση από τις εταιρείες τεχνητής νοημοσύνης.

Μια προσωρινή ανακωχή, όχι λύση

Οι περιορισμοί εξαγωγών ήρθησαν λιγότερο από τρεις εβδομάδες αργότερα, αφού η Anthropic υιοθέτησε νέα μέτρα ασφαλείας και συμφώνησε να ενημερώνει την κυβέρνηση για κακόβουλη δραστηριότητα και να συνεργάζεται στην ανάπτυξη πρωτοκόλλων για μελλοντικά μοντέλα.
Ο συντάκτης υποστηρίζει ότι αυτή η εξέλιξη δεν έλυσε τη διαφωνία, αλλά απλώς την ανέβαλε.
Η ουσιαστική σύγκρουση σχετικά με το τι μπορεί να απαιτεί η κυβέρνηση από τις ιδιωτικές εταιρείες τεχνητής νοημοσύνης παραμένει ανοιχτή και αναμένεται να επανέλθει στο μέλλον.

www.bankingnews.gr